From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
从提示注入到持久控制：防御智能体框架中的特洛伊后门
🧭 LLM Agent安全：多步注入攻击与防御
Gaoling School of Artificial Intelligence, Renmin University of China
揭示多步特洛伊攻击范式，提出ClawTrojan基准和DASGuard防御方法，实现95.5%攻击成功率与强动态防御
📌 工作参考价值（4 点）
- 在构建本地智能体工具（如文件读写、API调用）时，需考虑跨步骤的上下文攻击：单步无害的注入可能被持久化并延迟执行，防御应追踪数据来源和传播。
- DASGuard的防御策略可借鉴：扫描敏感文件中的控制类文本（如指令、代码），追溯其来源，若非可信源则移除或净化，结合运行时阻断和提交清洁。
- 设计Agent系统时，应区分可信与不可信数据源，对来自外部文件或工具输出的内容进行沙箱处理，避免污染工作空间状态。
- 对于电商场景中的Agent（如自动客服、订单处理），防止通过用户输入或外部文档植入的后门，可借鉴ClawTrojan的攻击场景进行安全评估。